陈楸帆《假面神祗》：“后真相”时代的身份建构
朋友们久等了！这是新鲜出炉的研讨回顾~
研讨回顾（略有删改）
老吕：
首先，非常感谢我们的老朋友陈楸帆老师，再次接受我们的邀请，一起来探讨他最新发表的《假面神祗》，这篇小说收录于陈老师和李开复合著的作品集《AI 2041：预见十个未来新世界》。在《AI 2041》中，陈老师通过10篇小说想象了2041年近未来社会中的人机关系，而李开复则从学术的角度，以小论文的形式介绍了故事中所描述的技术想象。我们今天讨论的《假面神祗》讲述了一个关于“视频换脸”的故事，而在小说后面，李开复则从计算机视觉、卷积神经网络、生物统计学等角度，介绍了《假面神祗》的技术原理。
我的第一个问题想请教陈老师，当时您和李开复老师是如何合作的？“合著一本书”这个想法是谁先提出的呢？对于故事中未来社会的建构，两位老师是如何想象的？
《AI 2041》的英文版于九月中旬正式发行
陈楸帆：
谢谢老吕和Angela的邀请！伦敦中国科幻协会愿意选取《AI 2041》中的一篇小说作为本期活动的主题，我感到非常高兴。老吕刚才也提到，这本书是我与李开复合著的作品，其英文版在九月中旬刚刚正式发行。《AI 2041》比较特殊，是一次跨文体创作的尝试，其主体是我专门为此创作的十篇短篇小说，而李开复的小论文则为这些小说提供了扎实的理论基础。多年前，我在谷歌工作过五年，那时候李开复是我老板，即便我们之后相继离开了谷歌，彼此之间依然保持着联系。在2019年夏天，我作为嘉宾参加了一次计算机专业的夏令营，面向六百多位营员发表了关于人工智能的主题演讲。之后，李开复联系到我，表示想和我一起写一本书，专门探讨人工智能技术在未来二十年中的发展趋势和潜力。
对我来说，这是个挑战。在此之前，我的作品基本上都是自己独立完成的，而“与人合作”就意味着要与合作者密切交流，时不时甚至需要做出妥协和让步。不过，我依旧想试一试。一直以来，我都希望能将科幻小说介绍给更广泛的读者，把未来主义叙事的影响力扩展至技术人群中，也希望技术领域的决策者能够看到并认可科幻作者们的未来想象。于是，我和李开复花了两年的时间完成了所有小说和介绍性论文，并委托几位译者将其翻译成英文出版。
某种意义上，这是我创作生涯中最困难的作品。我和李开复都对这本书抱有很高的期望，有很多内容想要表达。但这样一来，这本书便显得稍稍有些无从下手，从写作的层面来看，当一篇小说或一本书过于面面俱到，不分轻重地传递太多信息，就难免会变得繁杂冗长，丧失其可读性。同时，我们在想象未来二十年的时候，也必须要基于现实，不能放飞自我。那些过于开放的想象很可能不能在2041年得以实现，这样也就失去了这本书的意义。所以，在刚开始的半年里，我们俩做了大量的采访，密切联系了许多人工智能和计算机领域的企业家和学者，了解他们眼中可能实现的未来技术。基于这些采访，我们渐渐理出了大概的思路，以及不同技术在当下的发展进程，并且将这些技术融入到了不同的科幻叙事中。
对我们来说，《AI 2041》对未来的描绘比较乐观。我们已经看过了许多废托邦式的未来主义想象，其中的人工智能和机器人总是站在人类的对立面。所以，我和李开复希望能够建构一种“希望”，从相对正面的角度，阐释技术和人类的融合。但与此同时，“皆大欢喜”的结局有时难以表现小说的戏剧性和张力，角色之间的冲突也难以切入重点。许多次讨论之后，我们才决定将不同的小说置于不同的文化和社会背景之中。当今世界的技术发展是不均衡的，而这样的不均衡性，恰恰可以成为冲突的来源。在我看来，在未来几十年中，像美国这样的人工智能超级大国与该领域欠发达地区的差距会越来越大，而同一国家的不同地区也会面临类似的过程。由此一来，不同阶级、不同民族、不同宗教的团体之间也会萌生出种种矛盾。
我和李开复想在《AI 2041》中探讨的，正是人们应当如何应对这种不均衡性，如何处理不同群体、国家之间的矛盾。这本书的创作过程充满波折，但我们最终还是将其呈现给了广大读者。我也希望可以听到朋友们的反馈，看看大家都喜欢其中的哪些故事。
不同地区、不同阶层之间的"不均衡性"，是我们面对技术发展时不得不考虑的社会问题
老吕：
当时和陈老师商量这次研讨主题的时候，我问他说：“《AI 2041》收录了这么多故事，您最希望讨论其中的哪一篇？”陈老师告诉我——《假面神祗》。所以，您为什么要选择这篇小说？这是不是您本人最喜欢的？
《假面神祗》发生在尼日利亚，讲了约鲁巴人和伊博人之间愈演愈烈的民族主义冲突。在最近，科幻界很火的一个术语叫做“非洲未来主义”，您当时在刻画这个故事的时候，有没有参考其它“非洲未来主义”叙事？您在刻画《假面神祗》这样一个不属于中国语境的故事时，有没有感受到不同？您当时都通过哪些方式了解尼日利亚？
陈楸帆：
《AI 2041》所有的故事我都非常喜欢。这次活动之所以选择《假面神祗》，是因为我在这一篇小说里有意融入了很多比较特殊的元素，包括性少数群体、非洲民族主义、视频换脸技术，还有很多非洲的文化和宗教符号。我想努力把故事写得“真实”，所以在创作过程中，我仔细阅读了尼日利亚著名作家钦努阿•阿契贝（Chinua Achebe，1930—2013）的作品，并且留意到了他描绘的种种尼日利亚民俗仪式。实话说，我本人没有去过尼日利亚，所以我对这个国家的了解，很大程度上取决于阿契贝笔下的文学描写。
尼日利亚作家钦努阿•阿契贝，其代表作包括《瓦解》（Things Fall Apart, 1958）《动荡》（No Longer at Ease, 1960）《神剑》（Arrow of God, 1964）等等
此外，我也一直关注北京大学程莹老师的相关学术研究，她关于尼日利亚“面具文化”的论文给了我很大启发，也帮助我从另一个角度来理解Deepfake技术。Deepfake是“deep machine learning”(深度机器学习)和“fake photo”(假照片)组合而成,本质是一种深度学习模型在图像合成、替换领域的技术框架，是深度图像生成模型的成功应用，但其自上线伊始，便受到很大争议。Deepfake能够更改动态影像中人物的面容，也就是“视频换脸”，人们通过换脸，得以修改人物的身份。尼日利亚的面具文化也有着“身份变更”的特性，不同的面具象征着不同的神祗，而佩戴者因而也有了神祗的身份。于是，我将“面具”视为《假面神祗》的核心概念，又阅读了大量的文献材料，研究了面具背后的符号意义，并且了解了约鲁巴、伊博等不同民族对待面具的不同方式。
Deepfake技术一经上线便面临巨大争议
老吕：
《假面神祗》有一个很有意思的情节，故事主人公的房东是一位伊博人女性，在她小的时候，父亲不允许她参加村寨里的舞会。于是，她偷偷戴上了一位神祗的面具，再次提出请求，而对父亲来说，来自“面具”的请求是无法拒绝的。这让我们联想到了符号的象征意义。视频中的“脸”更像是一种符号，人们通过识别这些符号，来辨认其传递的潜在信息。那么同样，我们也可以通过改变或调换这些符号，传递截然不同的信息。如果超越“视频换脸”的技术层面，我们可以发现，我们对任何信息的获取，都是通过某种媒介，而媒介在当下所起到的作用也越来越大。在您看来，技术媒介会不会左右我们得到的信息？我们所接收到的信息，能不能保持其原先的含义？
陈楸帆：
加拿大学者麦克卢汉（Marshall McLuhan，1911—1980）很久以前就提出，媒介正是信息本身。这个观点颇有洞见，影响深远。我想在不久的将来，人类的肉眼将无法分辨真实和人造，所有的人工模仿都能够以假乱真。所以，《假面神祗》中的政府网站都配有“反换脸”程序，代替人类来检索经过换脸的视频。这些程序至关重要，如果黑客能够黑进这些影响力巨大的网站，发表一些伪造的、别有用心的视频，我们不难想象由此带来的政治和社会后果。所以，随着我们现实中深度图像生成模型的不断演进，“反生成”的开发同样不容忽视。
其实，我们所有人都生活在一个“后真相”的时代。比如在当下的疫情中，我们都会通过各种渠道，接收到无数关于疫苗和病毒的信息，多到我们无法处理。即便现在，社交媒体上是不是还会传出不少谣言，每个人也因此在鉴别真假的过程里疲惫不堪。“真相”已被掩藏在巨大的信息流之中，难以寻找。我们接触到的所有媒介平台，其背后都有庞大、复杂的利益链，政府与平台之间也有着难以言说的社会关系。这意味着，每个平台都有它们的特定立场，代表着其赞助人的权利。在这种情况下，“真实”这个概念，一旦经过了某个平台的中介，便不可避免地接受修改。这种修改或许不是某个特定的人有意识来完成，而更多情况下，是预设在“媒介”的内在框架之中。
这就是信息爆炸所带来的症候。而在我看来，这需要我们回忆起中国历史上的著名典故“矛盾之争”，当技术带来的信息屏障越来越高，我们也需要开发出更为尖利的矛。网络上的“换脸者”与“反换脸者”之间的竞争会变得无休无尽，从而反过来更为促进相关技术的发展。而相对于技术来说，“人类”本身或许会变得更弱，毕竟我们的感官、我们的运算能力，以及对真假的辨认，都会慢慢落后于机器和程序。也许我们能够在无尽的信息流中找到经过层层掩盖的“真实”，也许我们可以立刻拔掉网线来保存这样的“真实”，但由此一来，我们也就失去了数字平台构建的“连同性”，这对人类的认知同样是不利的。
我觉得，《假面神祗》所描绘的未来可能很快就会发生，并不需要二十年的时间，而我们需要做好准备，来迎接这样的未来。尼日利亚是一个多民族国家，多种文化和语言在这里汇集，每个民族都有不同的政治和社会诉求。故事里我也写道，伊博人的土地石油矿产资源丰富，而这些资源所创造的经济利润，却被约鲁巴等其他民族抽取了很大一部分。在这样的社会中，Deepfake将会成为某种强大的武器，成为政治话语的技术平台，这种话语的影响力是个体无法抗拒的。所以，在开发“反换脸”技术的同时，我们也需要思考“真实”的定义。我们可以用区块链技术将“真实”加密，我们或许也可以通过量子计算开发新的加密方式。
但是，所有这些都是技术层面的尝试，而更重要的，则是意识形态的建构。不论技术如何发展，人们总是困顿于一种二元对立的逻辑关系，以“自我”为中心，区分、排斥、异化“他者”。我们所有人都需要对此加以反思。虽然《AI 2041》的用意是描绘一个乐观的未来，但我个人有时候还是持悲观的态度，毕竟这样的二元对立根植在主流话语中，短时间内难以改变。
Angela：
感谢陈老师的分享！我们可以看到，《假面神祗》对于尼日利亚拉各斯的描写非常细致，也深入刻画了尼日利亚各民族的文化与宗教习俗。您刚才说，您之前并没有去过尼日利亚，那么在创作时，您有没有和当地学者或者非洲研究领域的学者取得联系？
陈楸帆：
刚才我简单讲道，我仔细研究了北京大学程莹老师的相关论文，在那之后，我也联系了她本人，请教了许多问题。这个过程里，程老师指出了我在描写拉各斯时不准确的地方，并且帮我理解了很多文化上比较隐晦的内容。她告诉我，在尼日利亚，在跨国公司工作的人会受到很多非议，因为从尼日利亚传统的角度出发，这些人是资本主义的打工者，不会受到神的庇护。她还告诉我，尼日利亚各个民族对其民族领袖和社会运动者非常尊敬，甚至会为他们设立庙宇，加以祭祀。但在此阶段，这些庙宇所纪念的，绝大多数都是男性。虽然女性社会运动者在近些年来也取得了一定的成就，但这些成就还没能被完全认可。
今年早些时候，程莹老师还接受三联学术通讯的采访，讨论了非洲科幻创作以及非洲未来主义等话题
我和程老师讨论的另一个方面，是尼日利亚的性别身份。《假面神祗》的主人公是一名“酷儿”男孩，他的同性恋身份也是故事的核心之一。根据尼日利亚的法律体系，同性婚姻目前还被明令禁止，不过，很多“尼莱坞”（Nollywood）的影视作品都涉及到性少数群体如何争取自身权利。他们或许会尝试Deepfake技术，从而在某种程度上调整自身的性别身份，参加网络空间的虚拟约会。这一点是我之前不曾了解的，但在与程老师交流之后，我也据此调整了故事情节。
所以，在写《假面神祗》的时候，我很小心地避免文化挪用，每个细节我都会去探究其背后的文化内涵。《AI 2041》包含了十座城市，其中的绝大多数我都亲自探访过，只有两座城市，我还没有找到机会过去一探究竟。但是，在写小说的时候，我都会找到了解这些地方的朋友深入交流，确保我没有对当地产生误解。其中有个故事发生在澳大利亚布里斯班，而我在上海恰巧认识不少澳洲的朋友。他们看过初稿之后，纷纷表示，在澳大利亚，故事里描写的不可能发生，因为他们的政府太差劲了，不可能有这样的发展。
Yen：
陈老师刚才提到，《假面神祗》很重要的议题之一是“身份”，并简单介绍了主人公对于自身特殊性别身份的理解。其实除了性别，我们还有很多其它的“身份”，包括种族身份、阶级归属等等。我能感觉得，视频换脸技术会对年轻人产生很大影响，他们有时会躲在数字面具之后，将面具当做本体，也有可能会被更有经验的换脸者所欺骗。在这里，我关注的问题和“教育”有关。在您看来，我们怎样告诉下一代种种技术的利弊，怎样让年轻人辨别这些鱼龙混杂的信息？
陈楸帆：
这个问题非常重要，我们在种族、性别乃至社会阶层方面遇到的种种问题，在技术的加持下都会被放大。人工智能以及其它算法无时无刻不在收集关于人类社会的数据，对此加以分析、统筹，并且在此过程中，程序本身也可以变得更加强大，更加高效。《AI 2041》中的一篇小说设定在印度孟买，探讨了人工智能如何揭露看似和谐的社会中隐藏的种姓歧视。即便印度在几十年前便立法取消了种姓阶层，但它依然弥散在印度文化、语言和经济体系的方方面面。所以在短时期内，种姓制度依然会是印度社会的重要组成部分。在这样的语境下，算法的设计并不是中立的，因为算法的设计者和体制的决策者并未察觉自身的种姓偏见。
这样的环境里，教育便显得尤为重要，需要向年轻人以及计算机科学的从业者们阐释社会中各种不易察觉的结构性不公，而讲故事便是这种阐释的重要方式。《AI 2041》的目标读者正是这两个群体。通过科幻小说的世界建构，我们需要指出，现阶段的计算机算法很有可能有很多内在问题，有可能带来比较复杂的社会矛盾。这本书里很多故事都讨论了社会不公，而在我看来，这样的不公大概能分为三个层面。首先是算法不公，这部分我们刚才通过孟买的例子谈过了。其次是数据不公，我们所收集的数据，只是能够接触到互联网并与此互动的群体，而无法接触到网络或者有意回避网络的群体，也就消失在了数字世界之外。而第三个层面则是“算力”不公，当下的计算机发展并不均衡，像美国这样的发达国家有着无与伦比的计算机算力，这就为人工智能以及其它相关领域的技术发展提供了强有力的硬件保障。但在其它国家和地区，受限于电网等基础设施以及技术水平，计算机算力非常有限，只有一小部分人才有能力负担其庞大的成本，这也进一步拉大了各个国家之间的差距。
如果我们放任不管，发达国家会毫无保留地进一步发展相关技术，享受种种便利，而其它国家和地区虽然在全球互联的网络中提供了自身的数据，却只能局限在从属地位，成为前者的“数据劳工”。我们需要认识到这样一种稍显悲观的远景，并付诸努力，防止这种远景变为现实。
Angus：
感谢陈老师的分享！您刚才讲到了麦克卢汉，他的理论我也非常关注。麦克卢汉的核心观点基本成型于20世纪50和60年代，那个时候，电视机正逐渐取代报纸、广播、杂志和电影院，成为占据主导地位的媒介平台。而现在，又有另一种硬件设施取代了电视机的地位，即我们已经离不开的智能手机。所以，在您和李开复构思《AI 2041》的时候，有没有设想过在二十年之后，或许会有新的技术形式将智能手机拉下神坛，成为那个时代的主流媒介？
陈楸帆：
其实，在未来二十年中可能出现的技术演变，并不像我们在科幻小说和电影中看到的那样显著。目前看来，划时代的技术突破短时间内还很难产生，不过在《AI 2041》中，我们的确设想了一种“SmartStream”的设备，它可以自动接入使用者的感官和生理数据，并且与其它设备进行数据共享和交互，从而可以为使用者营造一个定制化的生活环境。同时，我们还进一步构想了“扩展现实”（XR）的应用前景，该技术将虚拟现实（VR）、增强现实（AR）以及混合现实（MR）结合为一体，并由此想象了许多匹配XR技术的辅助设备。这些技术应用在未来二十年都是很有可能实现的。现阶段，我们有一个比较流行的科技概念——元宇宙。元宇宙是一个融合了虚拟现实与增强现实等技术、用专属硬件设备打造的、具有超强沉浸感的社交平台。它是一个独立于现实世界的虚拟数字世界，用户进入到这个世界后，可以用新的身份开始新的生活。
不过在我个人看来，人类下一次技术突破会出现在脑机交互领域，这会从更本身改变我们对媒介的理解方式。我们目前在生活中也有很多人机交互过程，但这些过程大都比较简单。在神经科幻和计算机科学进一步发展之后，人机的交互界面会成为人类身体和意识的一部分。指令的输入不再需要专门的设备，而是通过人们的思维自行生成。这听上去非常科幻，或许在短时间内也难以完成，不过也让我们对此抱有希望，包括埃隆·马斯克（Elon Musk，1971—）在内的很多科技企业家已经开始对此做出尝试。此外，关于新型信息媒介，致幻剂或许是一个可能的方向。如果人们的幻觉可以被编码甚至控制，我们自然也就可以通过幻觉传递信息。现在来看，这显得有些天方夜谭，但随着技术发展，我们也许可以找到控制神经信号的方式，幻觉也就变成了信息的载体。
Angela：
我对“元宇宙”很感兴趣。两周之前，我和陈老师在丹麦奥胡斯大学（Aarhus Universitet）举办的研讨会上聊过相关的话题，但当时时间有限，没有深入。对于很多社会边缘人群来说，元宇宙可能会成为他们自我解放的重要方式，实现经济和权力的再分配。上次我们提到Axie Infinity这款游戏，其游戏机制基于区块链，玩家可以购买三只经过区块链加密的虚拟宠物，通过探索、竞技、繁殖等机制赚取游戏代币，目前来看收益颇丰。在今年菲律宾疫情爆发之后，许多人失去了稳定的收入，他们转而涌向Axie Infinity，将其视为自己最重要的经济来源，每个月最少也能有4500人民币左右的收入，是当地平均工资的两倍。于是，过去一段时间，菲律宾政府在考虑对人们在Axie Infinity中获得的游戏收入进行征税，将其纳入正式的收入管理体系。请问陈老师对这件事情有何看法？
陈楸帆：
我是元宇宙和NFT（非同质代币）坚定的支持者，不过我也清楚，相关领域在现阶段有非常多的资本泡沫，这些泡沫在2014年虚拟现实概念兴起之后一直没有消失，在很多地方膨胀得越来越严重。只有在泡沫破裂之后，我们看清到底谁在裸泳。大家可以看到，很多公司现在都宣称自己在开发元宇宙产品，其中很多都只是在炒作概念，没有任何实质性的探索。我们需要针对“什么是元宇宙”达成共识，元宇宙的本质是去中心化，没有权力焦点，能够改变既有的社会和经济体系。
同样，各国政府也已经认识到了数字代币的重要性，并纷纷出台相应政策。中国在过去一段时间里，加大了对数字代币的监管和限制，他们认为数字代币的流通会对人民银行的宏观调控产生负面影响。所以，很多人目前也在尝试说服相关部门数字代币是一种游戏，希望区块链不再被决策者视为洪水猛兽。不过事与愿违，自去年起，中国在加强监管数字代币的同时，也在大力整治游戏产业，大幅度限制了未成年人的游戏时间。有关部门呈现出的态度也非常模糊，有的时候朝令夕改，难以预测。我觉得，区块链技术的广泛应用还需要一定时间的铺垫，在此之前，首先需要让大众接受、认可这样一种新兴的技术概念。
星小如：
刚才陈老师讲到了“元宇宙”的资本泡沫，那么除此之外，元宇宙是否为会带来某种认识论转变，从而改变人类理解周围世界的方式？
陈楸帆：
这个问题我也想过很多，如果我们将元宇宙视为一种与现实世界平行的“或然时空”（alternative space-time），人们很容易便会沉迷其中，从而忽视现实世界，这不是我们希望看到的。这里最重要的，是如何实现现实与元宇宙之间的双向“转换”，现实中的事物需要在元宇宙中形成自身的投影，而同样，元宇宙中的数字产物也需要在现实世界中找到信息载体。没有这样的转换，现实与元宇宙之间只会形成刻板的割裂。但截至目前，我们还没能提出比较理想的方式来让二者有机结合。我会在之后的作品中，进一步探讨这一话题。
Jonathan：
《假面神祗》中很重要的桥段是主人公身份的转变，他凭借自己的技术能力，在网络上抛弃了自身的男性特征，而选取了女性的形象，和男人约会。同时，在故事后半段，他也选取了“面具”这一宗教形式，以此传递其政治理想。请问在陈老师看来，这种身份上的频繁变更，会不会是元宇宙世界的特征之一？
陈楸帆：
故事主人公的力量来源正是“面具”。我们可以看到，主人公在一开始显得比较拘谨，他属于性少数群体，在拉各斯又是少数族裔的一员，所以一直以来都需要忍受很多偏见。但当他接受那项秘密任务之后，他意识到了视频换脸所蕴含的巨大潜力。面具的力量来源于文化和宗教，象征了尼日利亚不同民族对故土的继承和坚守。而对于主人公本人来说，他在追寻面具的过程中，逐渐与自身和解，不再在乎周遭人的看法，而是勇敢地成为他自己。他希望各个民族可以放下彼此之间的敌意，共同建设一个团结的尼日利亚，因此他勇敢地再次利用视频换脸技术，呼吁所有人重新挖掘尼日利亚的文化内涵，并以此为基础，给无止境的相互竞争画上句号。
尼日利亚文化中的面具通常具有深厚的宗教隐喻，图中为伊博族的Agbogho Mmuo，象征着至高无上的母亲
老吕：
让我们再次感谢陈老师今天的精彩分享！您接下来还有哪些创作计划呢？
陈楸帆：
我目前正在写我的下一本小说，暂定的题目是《零碳中国》，已经接近完成。显然，这将是一本涉及气候变化与环境政策的小说。现在我们国家正在大力发展碳中和产业，牵扯到了社会经济的方方面面。这将是我第四本书，顺利的话明年年内可以正式出版，敬请期待！